Năm 944, Ngô Quyền mất, ủy thác con trưởng Ngô Xương Ngập cho Dương Tam Kha - em trai (có sách viết là anh) Dương hậu. Dương Tam Kha cướp ngôi, tự lập mình làm vua, xưng là Dương Bình vương. Ngô Xương Ngập chạy về Nam Sách được một hào trưởng là Phạm Lệnh Công che chở. Dương Tam Kha ba lần sai quân đi bắt Ngô Xương Ngập mà không được. Ở đó Ngô Xương Ngập lấy vợ và sinh con là Ngô Xương Xí.

Dương Bình vương lấy Ngô Xương Văn làm con nuôi. Một số nghiên cứu gần đây cho rằng Ngô Xương Văn lấy con gái Bình vương là Dương Vân Nga và chính ông là người chồng đầu tiên của bà, nhưng giả thuyết này không vững chắc và có nhiều điểm mâu thuẫn (xem chi tiết bài Dương Vân Nga).

Từ khi Dương Tam Kha lấy ngôi của nhà Ngô, nhiều nơi không chịu thuần phục, các thủ lĩnh nổi lên cát cứ một vùng thường đem quân đánh chiếm lẫn nhau. Năm Canh Tuất (950), Tam Kha sai Xương Văn cùng hai tướng Dương Cát Lợi và Đỗ Cảnh Thạc đem quân đi đánh hai thôn Đường, Nguyễn ở Thái Bình. Ngô Xương Văn đi đến nửa đường, dụ hai tướng quay lại lật đổ Dương Tam Kha.

Trích Đại Việt sử ký toàn thư:

Năm 950, Dương Tam Kha sai Ngô Xương Văn cùng hai tướng họ Dương và họ Đỗ đem quân đi đánh hai làng là Đường và Nguyễn ở Thái Bình. Khi quân đến Từ Liêm, Ngô Xương Văn nói với hai tướng rằng:- Đức lớn của Tiên Vương ta đã thấm vào tận lòng dân, cho nên, chính lệnh ban ra, không ai là không thuận nghe theo. Nay, không may Tiên Vương đã lìa bỏ quần thần, Bình Vương [chỉ Dương Tam Kha] làm việc bất nghĩa, cướp ngôi của anh ta, tội thật không có gì lớn bằng. Giờ đây, Bình Vương lại sai chúng ta đi đánh hai làng vô tội. Nếu may mà thắng được thì chẳng nói làm gì, còn như họ không chịu hàng phục thì ta biết làm sao được?Hai tướng cùng nói:- Chúng tôi xin theo lệnh của ông.Ngô Xương Văn lại nói:- Ta muốn đem quân quay lại đánh úp Bình Vương để khôi phục cơ nghiệp của Tiên Vương ta, như thế có nên chăng?Hai tướng cùng cho là hay, bèn quay về đánh úp Dương Tam Kha. Mọi người muốn giết Dương Tam Kha đi, nhưng Ngô Xương Văn nói:- Bình Vương đối với ta có ơn [chỉ việc Dương Tam Kha đã nhận Ngô Xương Văn làm con nuôi], tại sao lại nỡ giết?Nói rồi, bèn giáng Dương Tam Kha làm Chương Dương Công, ban cho đất làm thực ấp (nay là bến Chương Dương).

Ngô Xương Văn không giết Dương Tam Kha, giáng xuống làm Chương Dương Công.